Matematická úloha optimalizace je snahou o nalezení takových hodnot proměnných, pro které účelová funkce nabývá minimální nebo maximální hodnoty. Mnoho teoretických úloh i úloh z reálného světa vede na řešení úlohy optimalizace. Často se vyskytuje při modelování fyzikálních jevů, kde cílová funkce má význam energie fyzikálního systému, která má v rovnovážném stavu systému být minimální. Úloha optimalizace představuje teoretický základ pro operační výzkum.